Đền Mây được xây dựng kiểu chữ Tam gồm: tiền tế, trung từ và hậu cung. Văn bia ở đền cho biết: Ðền được xây dựng vào thời nhà Ðinh, tu sửa vào thời Lê. Ðến Thiệu Trị năm thứ 4 (1884) nhân dân dựa theo quy mô cũ mà sửa lại... Ðến năm 1898 dân đồng tâm hiệp lực tu bổ lại ngôi đền, mùa xuân năm sau hoàn thành. Ngôi đền linh thiêng nổi tiếng xứ Sơn Nam, chiến tích xa rồi nhưng sự linh ứng và tiếng thơm vẫn lưu truyền mãi.

Tiền tế

Toà tiền tế với 3 gian được làm kiểu tường hồi bít đốc, mái lợp ngói mũi. Chính giữa toà tiền tế treo bức đại tự khảm trai có ghi hàng chữ “Thái Bình vương Phủ”. Dân gian coi Vua Mây là Vua của khu vực Thái Bình xưa. Các gian bên treo các bức hoành phi có ghi: “Phúc dẫn Đằng lưu” (Sông Đằng dẫn phúc); “Anh phi Châu quận” (Bậc anh tài ở quận Châu) và "Bán giang lĩnh tích” (Nửa dòng sông còn in dấu tích).

Nhà tiền tế còn bức chạm khảm trai lưu bút tích của Tiến sĩ Chu Mạnh Trinh, làm án sát xứ Hưng Yên, viết năm Mậu Tuất (1898) (dịch nghĩa):

"Ngoảnh đầu nhìn lại, nghìn năm đất nước đã thay đổi nhiều.Sự ngưỡng vọng tế lễ còn ở bảy mươi đền miếu."

Trung từ

Trung từ là nơi thờ 4 vị quan văn võ của vua Mây Phạm Bạch Hổ. Trung từ gồm 5 gian, nằm nối với tiền tế nhưng nền nhà cao hơn. Trung từ có kết cấu kiểu vì giá chiêng, với hệ thống cột gỗ lim vững chắc kê trên chân tảng đá lớn hình quả bồng để nâng đỡ mái. Hai bên cột treo đôi câu đối ca ngợi công lao của tướng quân.

"Bá chủ hùng đồ thập nhị sơn hà dư cổ luỹThần cao linh khí bán phân tinh vũ thử tiền giang".

Tạm dịch:

"Anh hùng bá chủ một vùng, non nước phân chia 12 sứ quânLinh thiêng hiển hiện của thần, khúc sông này nửa phân mưa nắng".

Hậu cung

Hậu cung đền Mây gồm 3 gian, kết cấu vì chồng rường đơn giản, không chạm trổ hoa văn. Trong đền còn lưu giữ 27 pho tượng, hầu hết được tạo tác từ thời Lê, hai cỗ kiệu bát cống và một lư hương đồng rất quý.

Hậu cung đền Mây có tượng tướng quân Phạm Phòng Át, thân mẫu và phu nhân tướng quân và con trai ông với vai trò là hoàng tử. Các tượng được tạc rất sống động. Thời 12 sứ quân, Phạm Bạch Hổ được coi như vị Vua cai quản vùng xứ Đông rộng lớn gồm cả Hải Dương, Hưng Yên, Hải Phòng ngày nay. Tượng ông được tạc với tư thế oai phong, gian trung từ có tượng bốn vị văn võ đã cùng Phạm Phòng Át khai phá, xây dựng cơ nghiệp, kích thước bằng người thật, thể hiện sự phát triển đến đỉnh cao của nghệ thuật điêu khắc thế kỷ XVIII qua bàn tay vàng của nghệ nhân dân gian.

Đền Mây còn lưu giữ các bức đại tự, khảm trai, kiệu bát cống, bia đá và 23 bản sắc phong của các vua triều Lê - Nguyễn. Trong sáu tấm bia đá, giá trị nhất là bia khắc bài "Ðặng Châu từ phụng ký" của Tuần phủ Hưng Yên Phạm Văn Toán làm năm thứ 11 (1899) triều vua Thành Thái, đã từng cùng Thống chế Hoàng Kế Viêm đánh Pháp ở trận Cầu Giấy, giết tướng giặc F.Garnie (1873), được triều đình trọng dụng, phong chức Trung phụng đại phu Tham tri Bộ binh, Phó đô ngự sử Viện Ðô sát. Nhân dịp Ðền Mây được trùng tu, ông đã dâng bài văn bia ca ngợi công đức của Phạm Phòng Át.